يرى كينيث روث، كاتب عمود في الجارديان وباحث أول في جامعة ييل والمدير التنفيذي السابق لمنظمة هيومن رايتس ووتش، أن سلوك إسرائيل في غزة يكشف بوضوح خطورة استخدام الذكاء الاصطناعي في الحروب، مؤكدًا ضرورة إبقاء البشر في قلب القرارات المتعلقة بالحرب.

وبينما يحذر قادة قطاع التكنولوجيا من مخاطر الذكاء الاصطناعي، تتجه معظم المخاوف إلى صور لأنظمة ذكاء اصطناعي تنفلت من السيطرة، مثل اختراق الأنظمة التي تدير البنية التحتية الحيوية أو المصارف أو حتى الجيوش.

لكن خطرًا شديدًا آخر يحظى باهتمام أقل، وهو التهديد الذي تشكله الأسلحة الفتاكة المدعومة بالذكاء الاصطناعي. ويُطلق على النسخ ذاتية التشغيل بالكامل من هذه الأسلحة بصورة غير رسمية اسم «الروبوتات القاتلة».

ويُظهر سلوك إسرائيل في غزة أن أنظمة الأسلحة المعتمدة على الذكاء الاصطناعي موجودة بالفعل، على الأقل من جانب مهم. فقد أصبحت خوارزمية تحدد من يعيش ومن يموت.

وعلى مدى أكثر من عقد، اجتمعت حكومات في جنيف لوقف تطوير الأسلحة ذاتية التشغيل المعتمدة على الذكاء الاصطناعي. وفي أوائل سبتمبر، اجتمعت 128 حكومة للموافقة على تقرير يمكن أن يشكل أساسًا لمعاهدة ملزمة.

لكن مجموعة من المحامين أرسلهم دونالد ترامب وفلاديمير بوتين تعاونت لإفراغ التقرير من مضمونه. وعلى نحو لافت، أضعف هؤلاء المحامين بندًا يلزم البشر بمراجعة الأهداف العسكرية التي يحددها الذكاء الاصطناعي قبل تنفيذ الضربة.

وظلت الأسلحة ذاتية التشغيل بالكامل محور النقاش، بينما لم يحظَ استخدام الذكاء الاصطناعي لتحديد أهداف الأسلحة التقليدية بالاهتمام نفسه. ويكمن الخطر هنا في الجهود المستمرة منذ فترة طويلة للحفاظ على «الإنسان داخل دائرة القرار»، أي ضمان وجود «سيطرة بشرية» حقيقية وفعالة على الأسلحة التي يعمل الذكاء الاصطناعي على تمكينها.

«الروبوتات القاتلة» وغياب السيطرة البشرية

عندما يتحدث كثيرون عن «الروبوتات القاتلة»، تتبادر إلى أذهانهم صور أرنولد شوارزنيغر في فيلم «ذا ترميناتور». وكثيرًا ما فكرت في هذه المشكلة في سياق انتفاضة ميدان التحرير خلال ذروة الربيع العربي، التي قادت إلى الإطاحة بالرئيس المصري حسني مبارك.

وحُسم مصير مبارك عندما أعلن الجيش المصري أنه سيرفض إطلاق النار على المتظاهرين المصريين. لكن الروبوتات القاتلة لم تكن لتبدي مثل هذه التحفظات. ولو استطاع مبارك نشرها، لربما ظل في السلطة.

ولا يتناول المفاوضون في جنيف هذه المشكلة أصلًا. فقد حرص محامو ترامب وبوتين على أن يشير التقرير المتفق عليه إلى الحرب فقط، لا إلى قمع الاحتجاجات.

واليوم، وفي ظل حرب الطائرات المسيرة في شرق أوكرانيا، تختبر القوات الروسية والأوكرانية أسلحة ذاتية التشغيل بالكامل للتغلب على عمليات التشويش التي تستهدف الإشارات المستخدمة للتحكم في الطائرات المسيرة. ومن المتوقع أن تتوسع عمليات النشر الناشئة لهذه الأسلحة.

لكن تشبيه «الروبوت القاتل» قد يكون مضللًا. فإذا نظرنا إلى قرارات الاستهداف بصورة أوسع، سنجد أن الذكاء الاصطناعي استولى عليها بالفعل. ففي غزة، يستخدم الجيش الإسرائيلي الذكاء الاصطناعي لاستهداف الفلسطينيين.

وراقبت إسرائيل اتصالات الهواتف في القطاع لفترة طويلة. وبعد هجوم حركة حماس في 7 أكتوبر 2023، استخدمت إسرائيل نظامًا للذكاء الاصطناعي يُعرف باسم «لافندر» للكشف عن أنماط ربطتها بهاتف أحد عناصر حماس. وأصبح الأشخاص الذين يحدد الذكاء الاصطناعي أن هواتفهم تستوفي هذه المعايير عرضة للقتل.

ولأن استهداف المشتبه بهم داخل منازلهم كان أسهل، استخدم الجيش نظامًا آليًا منفصلًا يُعرف باسم «أين أبي؟» لتعقبهم إلى منازلهم، ما أدى في كثير من الأحيان إلى مقتل أفراد أسرهم أيضًا. ولم يكن هناك ادعاء بأن حماس تستخدم منازل عناصرها لأغراض عسكرية. بل كان العثور على مقاتلي حماس المشتبه بهم أثناء نومهم أسهل بالنسبة إلى نظام الذكاء الاصطناعي. وأصبح أفراد أسرهم ضحايا لما وُصف بأنه أضرار جانبية.

ومن الناحية النظرية، ظل الإنسان داخل دائرة القرار، لأن الهدف الذي يختاره الذكاء الاصطناعي كان يُحال إلى ضباط استخبارات يوافقون عليه ثم يرسلونه إلى آخرين يتولون تنفيذ الهجوم. لكن هذا الدور البشري كان في الواقع شكليًا.

وفي الماضي، خضعت قرارات الاستهداف الإسرائيلية لمراجعة كبيرة. لكن في حملة القتل الإسرائيلية التي أعقبت هجوم حماس، غلب الطلب المكثف على الأهداف تلك المراجعات.

وكان ضباط الاستخبارات الإسرائيليون الذين يتلقون الأهداف التي يحددها الذكاء الاصطناعي يمررونها بصورة روتينية إلى منفذي الهجمات دون إعادة النظر فيها. ووصف أحد الضباط دوره قائلًا: «كنت أستغرق 20 ثانية لكل هدف في هذه المرحلة، وأنجز عشرات الأهداف يوميًا. ولم أضف أي قيمة بصفتي إنسانًا، باستثناء وضع ختم الموافقة. لقد وفر ذلك الكثير من الوقت».

ومن الحاسوب إلى القتل، أصبح الحكم البشري المستخدم في العملية شكليًا أشبه بـ«ختم مطاطي». وبعبارة أخرى، تولت خوارزمية دور الإله.

الذكاء الاصطناعي في استهداف الفلسطينيين

اقترح أحد الضباط الإسرائيليين أن هذه الممارسة قد تكون مبررة لأن الذكاء الاصطناعي يتخذ قرارات أفضل من البشر. فهو لا يتأثر بالعواطف، بينما قد يتأثر الحكم البشري بعوامل مختلفة، مثل العداء تجاه الفلسطينيين الذي شعر به بعض الإسرائيليين بعد هجوم حماس.

وقال أحد الجنود الإسرائيليين: «أثق بآلية إحصائية أكثر بكثير من ثقتي بجندي فقد صديقًا قبل يومين. لقد فقد الجميع هناك، بمن فيهم أنا، أشخاصًا في 7 أكتوبر. نفذت الآلة ذلك ببرود، وهذا جعل الأمر أسهل».

لكن الخوارزميات لا تنفصل حتمًا عن المدخلات البشرية. فما مقدار الأدلة المطلوبة لاعتبار شخص ما مقاتلًا في حماس؟ وما هامش الخطأ المقبول؟

تعتمد الإجابة عن هذه الأسئلة على أحكام مبرمجي الذكاء الاصطناعي وقادتهم، وهم إسرائيليون عاديون ربما قلل بعضهم من قيمة حياة المدنيين الفلسطينيين في خضم الغضب الذي أعقب هجوم حماس. وحتى الجيش الإسرائيلي أقر بأن نحو 10% من الأهداف البشرية المقرر اغتيالها لم يكونوا أصلًا أعضاء في الجناح العسكري لحماس.

وجسد الرئيس الإسرائيلي إسحاق هرتسوغ هذا الموقف المستهين بالمدنيين الفلسطينيين عندما قال: «هناك أمة بأكملها مسؤولة هناك. وليس صحيحًا هذا الخطاب القائل إن المدنيين لم يكونوا على علم أو لم يكونوا متورطين، فهذا غير صحيح على الإطلاق. كان بإمكانهم أن يثوروا ويقاتلوا ذلك النظام الشرير».

وساهم هذا الازدراء نفسه في استعداد الجيش الإسرائيلي الصادم لقبول سقوط مدنيين. فقد سمح الجيش الإسرائيلي بمقتل 20 شخصًا متوقعًا مقابل قتل مقاتل مشتبه به من حماس من رتبة منخفضة.

وبموجب مبدأ التناسب، يحظر القانون الدولي الإنساني شن هجوم إذا كان «من المتوقع أن يتسبب في خسائر عرضية في أرواح المدنيين... تكون مفرطة مقارنة بالميزة العسكرية الملموسة والمباشرة المتوقعة». ورغم أن القانون الدولي لا يحدد عدد الضحايا المدنيين المقبول في موقف بعينه، يكاد لا يرى أي خبير قانوني أن نسبة 20 إلى واحد الصادمة التي تقبلها إسرائيل قانونية.

وتشكل هذه الأفعال جرائم حرب، كما تعكس استخفافًا مروعًا بحياة المدنيين الفلسطينيين.

ويذكرني ذلك بمفهوم «تفاهة الشر» الذي طرحته حنة آرنت، إذ أصبح جنود عاديون متواطئين في قسوة استثنائية من خلال الثقة فيما يسمونه «النظام». وظل جوهر هذا النظام بشريًا؛ فالجنرالات أصدروا أوامر بإنشائه، والمحامون العسكريون برروا ما لا يمكن تبريره، والمبرمجون عدّلوا الخوارزمية، وضباط الاستخبارات مرروا الأهداف التي أنشأها الحاسوب، والجنود نفذوا الهجمات.

لكن أحد العوامل التي جعلت الثقة في «النظام» أسهل تمثل في الدقة الزائفة التي يوحي بها الذكاء الاصطناعي. فنحن جميعًا نعرف النبرة الواثقة والمطمئنة التي تتحدث بها روبوتات الدردشة الحالية. وعندما يستخدم الذكاء الاصطناعي في تحديد الأهداف، فإنه ينقل هذا الإيهام بالمعرفة المطلقة إلى عملية القتل.

ضرورة إبقاء الإنسان داخل دائرة القرار

عندما يتخذ بشر يعتريهم الخطأ حتمًا قرارات معينة، يمكنهم توقع أن يشكك آخرون فيها. لكن الذكاء الاصطناعي يجعل من الأسهل علينا التسليم بأحكامه. ويهدد هذا التسليم بتضخيم التحيزات البشرية التي تتسلل حتمًا إلى أي نظام للذكاء الاصطناعي.

وبينما نسعى إلى الحد من الأسلحة ذاتية التشغيل أو «الروبوتات القاتلة»، ينبغي لنا أيضًا أن ننتبه إلى الذكاء الاصطناعي الذي قد يدفعنا إلى الاطمئنان الزائف بشأن عمليات الاستهداف الأخرى. وتطلق اللجنة الدولية للصليب الأحمر على هذه الظاهرة اسم «التحيز للأتمتة».

ولضمان وجود سيطرة بشرية حقيقية على الذكاء الاصطناعي، لا يكفي الحصول على موافقة شكلية على قراراته. بل نحتاج إلى إخضاع مخرجاته لتدقيق مكثف، ومحاسبة القادة عندما يقصر الضباط الأقل رتبة في أداء واجباتهم.

ولا يملك سوى هذا القدر من الشك والتدقيق فرصة حقيقية لضمان تذكر الجنود الذين يستخدمون الذكاء الاصطناعي أن بشرًا حقيقيين يقفون في نهاية سلسلة القتل التي تتيحها هذه التكنولوجيا.

وحتى في زمن الحرب، ينبغي ألا تُزهق أرواح البشر نتيجة تطبيق خوارزمية بصورة آلية.

https://www.theguardian.com/commentisfree/2026/oct/02/ai-weapons-systems-algorithms-war